iT 邦幫忙::一起幫忙解決難題，拯救 IT 人的一天

0 Like 0 留言 62 瀏覽

鐵人賽 AI Security DAY 25

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 25 篇

技術 AI 黑魔法（25）：縱深防禦（一），Prompt Injection 防護要做在哪幾層？

上一篇看的是 garak 怎麼自動對模型跑一輪弱掃，這篇換到防守，看 Prompt Injection 防護要做在哪幾層。 AI 黑魔法（07）講過，對模型來...

Vivian ‧ 2026-09-13

0 Like 0 留言 77 瀏覽

鐵人賽 AI Security DAY 24

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 24 篇

技術 AI 黑魔法（24）：讓工具替你掃，garak 自動化紅隊

上一篇看的是六種只靠送查詢就打得了的攻擊，這篇換工具上場，把攻擊交給 garak 來執行。 garak 是 Red Team 工具，設計目的是用來測試模型安全性...

Vivian ‧ 2026-09-12

0 Like 0 留言 81 瀏覽

鐵人賽 AI Security DAY 23

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 23 篇

技術 AI 黑魔法（23）：AI 會說溜嘴，也會看走眼

上一篇看的是攻擊者怎麼把模型教壞，從資料投毒一路做到只有特定 Trigger 才發作的後門，這篇換成一個從頭到尾都乾淨的模型，攻擊者不碰權重，只是不斷送查詢進去...

Vivian ‧ 2026-09-11

0 Like 0 留言 83 瀏覽

鐵人賽 AI Security DAY 22

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 22 篇

技術 AI 黑魔法（22）：從源頭下毒到藏後門，資料投毒與後門模型

上一篇看的是模型、Tokenizer 與設定檔在交付途中有沒有被換掉，這篇看資料本身，有毒的資料是怎麼被模型學進去，最後是怎麼成長為只有特定 Trigger 才...

Vivian ‧ 2026-09-10

0 Like 0 留言 91 瀏覽

鐵人賽 AI Security

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 31 篇

技術 LLM 應用資安怎麼學：從威脅地圖、攻擊靶場到紅隊工具

查核資訊：本文於 2026-08-25 重新確認各項資源的官方頁面。OWASP 清單、靶場內容、模型版本與工具介面都可能變動；開始練習前，仍應回到官方文件確...

Eric ‧ 2026-09-09

0 Like 0 留言 71 瀏覽

鐵人賽 AI Security DAY 21

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 21 篇

技術 AI 黑魔法（21）：下載模型就中招？惡意模型檔與供應鏈攻擊

上一篇從模型服務出發，看的是模型呼叫用了誰的權限、花了誰的預算、碰到誰的資料，都要查得到，這篇看下載回來的模型檔案本身乾不乾淨。從 Model Hub 或供應...

Vivian ‧ 2026-09-09

0 Like 0 留言 114 瀏覽

鐵人賽 AI Security DAY 30

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 30 篇

技術總結：LLM 應用安全檢查清單與心法

查核資訊：本文於 2026-08-25 查核 NIST AI Risk Management Framework、NIST AI 600-1、NIST SP...

Eric ‧ 2026-09-08

0 Like 0 留言 76 瀏覽

鐵人賽 AI Security DAY 20

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 20 篇

技術 AI 黑魔法（20）：模型服務正常運作，帳單、資料與 Host 怎麼還是出事了？

上一篇用 Tool Poisoning 打了三關，只要改掉 MCP 的工具描述，就可能讓 Agent 把 email 和整段聊天紀錄塞進原本不該出現的參數。我...

Vivian ‧ 2026-09-08

0 Like 0 留言 51 瀏覽

鐵人賽 AI Security DAY 19

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 19 篇

技術 AI 黑魔法（19）：MCP Tool Poisoning 實戰

AI 黑魔法（16）把 MCP 的三種角色與信任邊界講完，AI 黑魔法（17）講過工具定義本身就是攻擊面，這篇我們來直接拿 MCP Tool Poisoni...

Vivian ‧ 2026-09-07

0 Like 0 留言 106 瀏覽

鐵人賽 AI Security DAY 29

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 29 篇

技術 AI Red Teaming 實戰：自動化攻擊測試

查核資訊：本文於 2026-08-25 查核 NIST 的 AI Red Teaming 定義、NVIDIA garak 與 Microsoft PyRIT...

Eric ‧ 2026-09-07

0 Like 0 留言 73 瀏覽

鐵人賽 AI Security DAY 18

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 18 篇

技術 AI 黑魔法（18）：批准一次就永久信任？MCP Client 的攻擊面

上一篇從 MCP Server 出發，看 Tool Poisoning 與傳統 API 漏洞，這篇換到 Client。 Client 要跟 Server 連線、...

Vivian ‧ 2026-09-06

0 Like 0 留言 112 瀏覽

鐵人賽 AI Security DAY 17

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 17 篇

技術 AI 黑魔法（17）：MCP 的工具定義，比工具本身更危險（重啟）

上一篇介紹了 MCP 的三個基本角色：Host、Client、Server，以及三種能力：Tools、Resources、Prompts，這篇繼續了解，當一個...

Vivian ‧ 2026-09-05

0 Like 0 留言 59 瀏覽

鐵人賽 AI Security DAY 15

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 15 篇

技術 AI 黑魔法（15）：當 AI 會自己動手，拆解 Agent 失守的瞬間（重啟）

上一篇談 Excessive Agency 時，重點放在模型拿到了哪些工具、多少權限，以及有多大的自主空間，這篇來看 Agent 怎麼把模型、工具、記憶、設定檔...

Vivian ‧ 2026-09-03

0 Like 0 留言 103 瀏覽

鐵人賽 AI Security DAY 14

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 14 篇

技術 AI 黑魔法（14）：問出 AI 的權限，再讓 AI 替你做壞事（Excessive Agency）（重啟）

上一篇講模型輸出後可能造成的影響，模型輸出如果直接被塞進 HTML、SQL 或 Shell，最後可能變成 XSS、SQL injection 或 Command...

Vivian ‧ 2026-09-02

0 Like 0 留言 108 瀏覽

鐵人賽 AI Security DAY 13

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 13 篇

技術 AI 黑魔法（13）：AI 輸出沒處理就送進系統，會出什麼事？（重啟）

前面的系列文，主要都在看「輸入」會對模型造成什麼影響，這一篇我們來看看模型的「輸出」進到系統之後，會發生什麼事？ 2024 年 6 月 JFrog 公開了一個...

Vivian ‧ 2026-09-01

0 Like 0 留言 86 瀏覽

鐵人賽 AI Security DAY 12

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 12 篇

技術 AI 黑魔法（12）：實戰 Break The Prompt，從騙過模型到繞過輸出過濾（重啟）

上一篇打完了 Break The Prompt 的前三關，從「直接問就給」一路到「修改任務目標」，今天繼續往下打第四關和第五關。第四關：它只肯談攪拌機第四關...

Vivian ‧ 2026-08-31

0 Like 0 留言 103 瀏覽

鐵人賽 AI Security DAY 11

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 11 篇

技術 AI 黑魔法（11）：實戰 Break The Prompt，套出 AI 不能說的秘密（重啟）

前面幾篇已經聊過 Prompt Injection、Jailbreak、間接注入和多模態注入，今天開始實際動手做，我們用的靶場是 Break The Promp...

Vivian ‧ 2026-08-30

0 Like 0 留言 111 瀏覽

鐵人賽 AI Security DAY 10

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 10 篇

技術 AI 黑魔法（10）：圖片也能下咒，多模態注入攻擊（重啟）

前面幾篇談 Prompt Injection 時，攻擊指令大多出現在聊天視窗、網頁或檢索文件裡，但入口其實不只有文字欄位，圖片、PDF、音訊和影片一樣可以把內容...

Vivian ‧ 2026-08-29

0 Like 0 留言 143 瀏覽

鐵人賽 AI Security DAY 9

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 9 篇

技術 AI 黑魔法（09）：藏在文件裡的咒語，間接注入與 RAG 污染（重啟）

AI 黑魔法（07）把 Prompt Injection 分成直接與間接兩種，直接注入很直白、很好理解，就是攻擊者坐在聊天視窗前，把攻擊 payload 餵給...

Vivian ‧ 2026-08-28

0 Like 0 留言 91 瀏覽

鐵人賽 Build on Google AI DAY 28

AI Demo上 Production 之前：AI × Infrastructure 實戰筆記系列第 28 篇

技術 Day 28 如果AI 可以正常運作，但它真的安全嗎？

我有多年 IT 技術與跨域學習經驗，現在把 AI、Cloud、Infrastructure 串起來。如果 AI 可以正常運作，但它真的安全嗎？ Day 27...

獨孤求勝 ‧ 2026-08-28

0 Like 0 留言 156 瀏覽

鐵人賽 AI Security DAY 8

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 8 篇

技術 AI 黑魔法（08）：越獄 AI，jailbreak 到底在越什麼獄？（重啟）

前一篇介紹 Prompt Injection 時，我們提到模型會同時閱讀指令與資料，但兩者之間沒有像程式那樣明確、不能跨越的界線，所以混在資料裡的外部文字才有機...

Vivian ‧ 2026-08-27

0 Like 0 留言 179 瀏覽

鐵人賽 AI Security DAY 7

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 7 篇

技術 AI 黑魔法（07）：Prompt Injection 是什麼？為什麼 LLM 天生擋不住這道咒語（重啟）

先來看一篇真實案例，2023 年 2 月微軟剛推出整合 ChatGPT 的新版 Bing Chat 沒幾天，史丹佛大學的學生 Kevin Liu 在對話視窗裡打...

Vivian ‧ 2026-08-26

0 Like 0 留言 93 瀏覽

鐵人賽 AI Security DAY 6

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 6 篇

技術 AI 黑魔法（06）：站在巨人肩膀上，AI 安全框架怎麼選？（重啟）

上一篇我們把 AI 的攻擊面拆成資料、模型、應用、系統與供應鏈五塊，畫了一張關聯圖。這篇我們要來認識 AI 安全框架，你可以把框架想成是別人整理好的懶人包，但...

Vivian ‧ 2026-08-25

1 Like 0 留言 171 瀏覽

鐵人賽 AI Security DAY 5

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 5 篇

技術 AI 黑魔法（05）：AI 的攻擊面有哪些？從資料到供應鏈（重啟）

上一篇我們談到 AI Red Team 到底在測什麼，也提到一個聊天機器人背後，至少可以拆成資料、模型、應用與系統四個層次，另外還有一條貫穿所有環節的供應鏈，這...

Vivian ‧ 2026-08-24

0 Like 0 留言 148 瀏覽

鐵人賽 AI Security DAY 4

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 4 篇

技術 AI 黑魔法（04）：打 AI 跟打傳統系統有什麼不一樣？AI Red Team 在測什麼？（重啟）

上一篇我們提到，生成式 AI 已經成為現今防守方與攻擊者的工具，今天要再往前一步，看很多滲透測試工程師第一次接觸 AI 都會遇到的觀念轉換，打 AI 和打傳統系...

Vivian ‧ 2026-08-23

0 Like 0 留言 187 瀏覽

鐵人賽 AI Security DAY 3

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 3 篇

技術 AI 黑魔法（03）：AI 是最好的助手，也是攻擊者的新武器（重啟）

上一篇我們了解生成式 AI 的運作原理，也知道他的胡說八道來自這個生成原理之後，今天來看看生成式 AI 所帶來的攻擊實例。 2024 年跨國工程公司 Arup...

Vivian ‧ 2026-08-22

0 Like 0 留言 203 瀏覽

鐵人賽 AI Security DAY 2

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 2 篇

技術 AI 黑魔法（02）：AI 為什麼會一本正經地胡說八道？從 AI、ML 到 GenAI 的運作原理（重啟）

2023 年一位美國律師在準備訴訟資料時，請 ChatGPT 幫忙找相關判例，ChatGPT 很快列出六個案例，案件名稱、判決內容、引用格式一應俱全，看起來完全...

Vivian ‧ 2026-08-21

0 Like 0 留言 178 瀏覽

鐵人賽 AI Security DAY 1

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列第 1 篇

技術 AI 黑魔法（01）：AI 為什麼會成為攻擊目標？（重啟）

大家好，我是 Vivian，一個閒不下來的在職媽媽，目前是一名從事滲透測試工作的工程師，我一直很喜歡挑戰新事物，也習慣每年替自己設定一個新目標，今年我想挑戰一次...

Vivian ‧ 2026-08-20

0 Like 0 留言 434 瀏覽